max rank | avg. rank | sentence |
---|---|---|
62 | 31.8750 | А может быть, за то, что это я& |
84 | 61.0000 | Это то, чем мы является. |
91 | 58.2000 | Если нет то когда будет? |
103 | 44.5000 | Как это уже было не раз. |
108 | 70.2000 | А когда просто – просто. |
117 | 90.4000 | "Он был больше, чем человек. |
141 | 71.1429 | А что еще в этой жизни нужно? |
141 | 52.7143 | И это не всегда то, что нужно. |
149 | 68.8333 | И так было уже несколько раз. |
153 | 80.6000 | Однако у нас нет этого. |
154 | 52.5714 | На вопрос "А вы — что же?" |
159 | 78.4286 | У меня нет и не будет детей. |
187 | 84.5000 | Так вот - у нас все можно. |
189 | 73.5000 | Мы – такие же люди, как и вы. |
208 | 120.4286 | И слово должны было именно к нам. |
210 | 48.5714 | В том то и дело, что "все". |
212 | 101.4286 | По его словам, 5 тысяч сомов - это. |
213 | 91.8000 | Но тогда это было нужно. |
218 | 124.4000 | Он должен был здесь быть. |
225 | 99.6667 | Так как меня нет в стране. |
225 | 125.0000 | "У нас в стране много работы. |
234 | 95.5000 | А таких как мы, очень много. |
234 | 110.6667 | У нас не было таких людей. |
238 | 153.4000 | За работу деньги не вы. |
240 | 68.8333 | Что же, может быть, и так. |
247 | 197.7500 | Что нужно сделать сейчас? |
256 | 66.1667 | А может, и не было ничего? |
256 | 135.5000 | Все, им больше ничего не нужно. |
261 | 148.8333 | В нашей стране тоже их много. |
261 | 84.7143 | Но в нашей стране все не так. |
The maximum word rank of a sentence is by definition the rank of the rarest word in the sentence. If it is low, all words in the sentence are of high frequency. For this reason the table of the sentences with least maximum word number might be of interest. In the table, we see the corresponding sentences with a minimum length of 40 characters.
The over all distribution of the maximum rank in all sentences of the corpus is shown in a diagram with log-scaled x-axis.
The sentences in the table described above are of interest because they are usually easy to understand. The distribution may give insights into the corpus and may give parameters for language comparison.
While the distribution might be deduced from a small corpus, the sentences in the table are rare and a large corpus will give more impressive results.
Table data:
select max(w_id)-100 as m, avg(w_id)-100 as a, s.sentence from sentences s, inv_w i where s.s_id=i.s_id and length(sentence)>40 and i.w_id>100 group by s.s_id order by m limit 30;
Distribution data;
select m, count(*) from (select 100* round((max(w_id)-100)/100) as m from sentences s, inv_w i where s.s_id=i.s_id and i.w_id>100 group by s.s_id) aa group by m;
Explain the distribution, especially the increase in its right part.
4.5.2.2 Average word rank in sentence
4.5.2.3 Sentences consisting of many low frequency words I
4.5.2.4 Sentences consisting of many low frequency words II
4.5.2.5 Sentences consisting of short words only I
4.5.2.6 Sentences consisting of short words only II
4.5.2.7 Sentences consisting of long words only I
4.5.2.8 Sentences consisting of long words only II